Пресса о страховании, страховых компаниях и страховом рынке

РБК (RBC.ru), 28 февраля 2025 г.

Кто будет виновным в аварии с беспилотным транспортом: сложные вопросы

63 просмотра

Беспилотные автомобили поставили перед обществом сложные вопросы. Например, кто должен отвечать за аварии, если у автомобилей нет водителя как такового? Как сейчас решаются эти вопросы в автопроме, рассказывает эксперт

В середине октября в интернете завирусилось видео из румынского города Брашов. На нем автомобиль Tesla в последний момент объехал упавшего на проезжую часть пешехода и из-за этого столкнулся с машиной на встречной полосе. Автопилот Tesla Model S отдал приоритет безопасности одного человека, рискнув жизнью сразу двоих — собственного водителя и водителя встречной Audi. В развернувшейся вокруг этого случая дискуссии часто звучал вопрос: а что, если бы на месте Audi оказались пассажирский минивен или фура? Соотношение пострадавших людей к спасенным было бы гораздо критичнее.

К счастью, в этот раз вопрос остался гипотетическим. Но далеко не все инциденты с участием беспилотных автомобилей заканчиваются позитивно. В 2018 году в США автономный автомобиль Uber, работавший в режиме автопилота, насмерть сбил пешехода, переходившего улицу в неположенном месте. В 2023 году беспилотное такси Cruise столкнулось с автомобилем пожарной охраны Сан-Франциско, следовавшим на экстренный вызов и имевшим приоритет проезда. В том же году жертвой беспилотника Waymo стала собака, внезапно выскочившая на дорогу. Известен целый ряд инцидентов с Tesla, при которых автопилот неверно интерпретировал или не замечал дорожные знаки и это приводило к авариям или потенциально опасным ситуациям.

Справедливости ради нужно сказать, что чаще всего аварии с участием беспилотников происходят из-за ошибок в работе систем автопилотирования или нарушений правил управления, а не из-за необходимости делать сложный выбор, с которым сталкивается компьютер. Но это не исключает из повестки обсуждения непростые, в том числе с точки зрения этики, вопросы.

Дилемма вагонетки

Румынский кейс с Tesla вписывается в условия этической проблемы, сформулированной английским философом Филиппой Фут 57 лет назад. Она известна как «проблема вагонетки» и поднимает следующий вопрос: как правильно поступить в ситуации, где жертвы неизбежны? Например, вы управляете трамваем, который не может затормозить. Прямо по курсу на одной колее работают пять человек, а на другой — один, но ваш близкий, и вы обязательно кого-то задавите. На какую колею свернете? Особенность задачи в том, что она не имеет решения. Это мысленный эксперимент для исследования эмоциональных и когнитивных реакций людей. Однако реальность подбрасывает поводы для того, чтобы искать применимое решение.

И его уже ищут политики и автопромышленники, ученые и разработчики ПО. С 2017 года над подобными проблемами в применении к беспилотникам трудится целевая группа по этике Еврокомиссии, разработавшая 20 этических рекомендаций для автопрома. А ученые из ассоциации IEEE Standards оформляют эти принципы в строки кода. К «проблеме вагонетки» у них единый подход, и основан он на принципе оценки и разделения рисков. Следуя ему, ученые из Технического университета Мюнхена создали открытый код для автопилотов. Он отработан на 2000 возможных сценариев, в том числе очень неоднозначных, и заложенный в код алгоритм позволяет взвешивать риски для каждого участника дорожного движения на основе коэффициента его защищенности. Логика простая: если столкновение неизбежно, пусть больший удар придется на того, кто лучше защищен.

На данный момент это единственное решение этической проблемы для беспилотников. И, похоже, оно уже действует. Вспомним случай в румынском городе: упавший на дорогу пешеход был самым незащищенным участником аварии, и, если бы Tesla не вырулила на встречку, он бы наверняка погиб. То есть автопилот стоял не перед выбором «ущерб одному человеку или нескольким», а перед выбором «гибель одного человека или травма другого». При этом если бы по встречной полосе ехала фура, компьютер, вероятно, оценил бы риски иначе и принял бы другое решение.

Кто виноват

Еще один непростой вопрос, который сейчас решается в автопроме, — как оценить степень вины участников ДТП, если в нем вообще не было водителей. Одной из первых стран, представивших свое видение проблемы, стала Великобритания, с 2026 года планирующая сделать беспилотные автомобили полноценными участниками дорожного движения. В «дорожной карте» по внедрению беспилотного транспорта отмечалось, что ответственность за аварии, произошедшие в режиме автопилота, несет не водитель, а разработчики программного обеспечения. Презумпцию невиновности водителя беспилотника, находившегося в момент ДТП в режиме автопилота, разделяют во Франции, Германии и Японии. Причем ответственность водителя они считают тем меньшей, чем выше степень автопилотируемости его транспорта.

Однако всеобъемлющее законодательство для автономных транспортных средств пока еще не разработано ни в одной стране мира, и это оставляет простор для споров. Например, в некоторых случаях ответственность может возлагаться не на разработчиков ПО, а на производителей автомобилей, поставщиков оборудования вроде камер или датчиков. А то и на третью сторону — дорожные службы или операторов наружной рекламы, билборды которых бросают тень на дорожные знаки. В России виновным в зависимости от причин аварии могут признавать водителя, оператора ПО, а также владельца машины или специалиста по безопасности со стороны разработчика беспилотника.

Несмотря на множество вероятных исходов, в автопромышленном сообществе уже есть некоторый консенсус: каждая авария должна разбираться индивидуально, а также на основе страховых норм и законодательства страны. На практике это значит, что решение даже в самых неоднозначных случаях будут принимать страховые компании. Не зря Уоррен Баффетт, глава холдинга Berkshire Hathaway, в числе активов которого есть и страховые компании, пророчил ущерб страховой отрасли из-за массового внедрения беспилотных автомобилей. Вот так сложные этические вопросы могут быть спущены на землю — через прагматичный финансовый механизм.

Угрозы кибербезопасности транспорта

Интересно, что британский кодекс по решению проблем беспилотников упоминает и риски повреждения или утраты автомобиля при попытке взлома или взломе ПО. И этот риск — еще одна проблема, которую автопроизводители оценивают как важную. Правда, на законодательном уровне речь пока идет о возможном ущербе имуществу и участникам дорожного движения из-за хакерских атак, а случаи утечки данных, мошенничества, похищения людей или других серьезных преступлений упоминаются редко, хотя именно они выглядят наиболее резонансными.

К счастью, пока о багах в бортовых компьютерах известно в основном от белых хакеров, ищущих уязвимости ради совершенствования программ. В 2019 году эксперты компании Regulus Cyber взломали систему GPS-навигации Tesla Model 3 и отправили ее в другой город вопреки воле водителя. В начале 2024 года профессор электротехники и вычислительной техники Университета Дьюка в Северной Каролине сообщил о разработке вредоносной технологии Mad Radar. Его «сумасшедший радар» мог убедить компьютер беспилотника совершить действие, представляющее угрозу для пассажиров и окружающих. Исследователи Мичиганского университета построили испытательный полигон Mcity UM для автоматизированных транспортных средств. Эффективные на 86% взломы, которые им удалось совершить, в реальных условиях могли бы стать причиной резкого торможения и столкновения автомобилей.

Отдельным интересом пентестеров пользуется риск утечки данных. В 2022 году анонимный IT-специалист узнал о существовании в Tesla опции, которую он назвал «режимом Илона». Усовершенствованная система помощи водителю не требовала от него внимания на дороге и не докучала указаниями. В конце 2023 года немецким исследователям удалось подтвердить существование этой фичи. По их словам, автопилот Tesla в режиме Executive Mode позволяет Илону Маску и его гостям снять стандартные ограничения на скорость и запас хода. Но эти находки можно назвать безобидными по сравнению с тем, что злоумышленники могут получить информацию о месте жительства и даже об обустройстве двора и гаража владельца беспилотника. Известно, что девять камер Tesla ведут съемку даже при выключенном двигателе и передают материалы сотрудникам корпорации, что служит страховкой от вандализма. И хотя компания утверждает, что эти и другие данные о владельце остаются анонимными, практика отрицает надежность этих заявлений.

Упомянутые кейсы обрисовывают горизонт возможностей черных хакеров. Автопроизводители не игнорируют угрозу, но предлагаемое ими решение — рациональное и системное. Они предпочитают тратить ресурсы не на подстраховку в каждом гипотетическом случае, а на повышение защищенности всех систем. Однако и здесь без дилемм не обходится. Беспилотный автопром сейчас стоит перед выбором: использовать беспилотники автономно с помощью вычислителей на борту, как сделано в Tesla, или подключать все автомобили к единым базам данных через облачную инфраструктуру. В первом случае обслуживание ПО обходится дороже, а риски появления «дырок» в ПО все равно довольно высоки. Зато в случае хакерской атаки под угрозой окажется только один автомобиль. Вторая стратегия, основанная на облачных вычислениях, предлагает универсальное ПО для всего автопарка, а это значит, что обнаруженные проблемы будет легче и быстрее устранять. Но и уязвимой становится вся система, что дает взломщикам доступ не к одному автомобилю, а сразу к десяткам и сотням тысяч.

Посмотрим, какой выбор будет сделан большинством производителей беспилотников и можем ли мы рассчитывать на единство мнений в принципе. Ведь даже на то, чтобы договориться о едином стандарте разъема для зарядки гаджетов, у производителей техники ушло несколько десятков лет.

Расчет вместо этики

Есть и другие интересные вопросы, которые встали перед обществом с появлением беспилотников: как вести себя в авариях, если один из ее участников — животное? Как найти компромисс между возможностями автомобиля и потреблением электричества, которое косвенно влияет и на экологию? Что делать с водителями, которые останутся без работы из-за замены компьютерами?

Но придется признать, что большинство из них занимают по большей части исследователей и философов. Автопроизводители к ним подходят рационально. Они согласны друг с другом в том, что позитивный эффект от распространения беспилотников статистически более заметен, чем ущерб от негативных случаев. Статистика подтверждает, что с появлением самоуправляемых авто дороги становятся безопаснее. По данным Tesla, в третьем квартале 2024 года была зафиксирована лишь одна авария на 11,3 млн км, пройденных с функцией обновленного автопилота, и это в 5,5 раза меньше, чем у тех, кто не пользовался подсказками компьютера.

Максим КУЗИН,
промышленный дизайнер, инженер и основатель дизайн-компании KUZIN Machinery

РБК Тренды

В материале упоминаются: Компании, организации: Berkshire Hathaway Inc. 147  Персоны: Баффетт Уоррен (Buffett Warren)

Ваше мнение об этом материале:

— Ваше имя
— Ваш email
— Тема

Ваш отзыв (заполняется обязательно):

Укажите код на картинке слева:

Установите трансляцию заголовков прессы на своем сайте

 Подробнее »

Получить код для трансляции заголовков прессы »